NEAR: Neighborhood-Aware Residuals for Memory Retrieval
NEAR：面向记忆检索的邻域感知残差框架
🧭 记忆检索 · 邻域残差投影 ★ 深度解读
Southeast University · MemoraX AI · Leiden University · University of Sydney
训练无关地用邻居方向构造投影残差，把共享主题带来的干扰记录转为匹配信号，单次 ANN 检索提升记忆召回。
📌 工作参考价值（4 点）
- 可把“同品牌/同店铺/同话题商品的向量相似但证据不相关”问题转化为局部参考：离线对每个 item/memory 用 top-k 邻居均值方向做投影残差，抑制类目/品牌共性，放大差异；适合商品召回、内容去同质化。
- training-free + 固定索引：残差和原向量拼接成静态 key，线上只做一次内积 ANN（如 HNSW），不用改 encoder 或做多路召回，便于接入现有 embedding 库。
- query 侧参考由 16 个 anchor 的 spherical K-means + softmax 路由生成，避免在线先检索邻居，工程轻量；可迁移到 query embedding 的在线局部校准。
- 存储/延迟可控：NEAR 未压缩是 Base 2x 存储、约 2.39x 延迟；用 SQ4 可压到 Base FP32 的 0.36x，Recall 几乎不变。适合大规模 item/memory 索引，结合业务接受度调节 residual weight/depth。